Sự nghiệp bóng đá của Kilpin tiếp tục khi ông thi đấu cho câu lạc bộ bóng đá hạng thấp của Anh là Notts Olympic hiện đã không còn tồn tại, sau đó là chơi cho St. Andrews, nơi ông chơi ở vị trí hậu vệ và tiền vệ.[1]

Vào năm 1891, Kilpin lúc đó 21 tuổi đến Turin làm việc cho Edoardo Bosio, một thương nhân người Thụy Sĩ gốc Italia vốn kinh doanh ở lĩnh vực dệt may. Trong cùng năm đó Bosio thành lập ra câu lạc bộ Internazionale Torino, được cho câu lạc bộ bóng đá đầu tiên của Italia. Kilpin chơi cho đội bóng và trở thành cầu thủ người Anh đầu tiên chơi bóng ở nước ngoài.[1] Trong thời gian này, ông cùng đội bóng tham gia Giải bóng đá Italia, giải đấu tiền thân của Serie A nhưng đều thất bại trong cả hai trận chung kết gặp Genoa.

Đến năm 1898, Kilpin đã rời Turin và định cư tại Milan cùng với một đồng nghiệp người Anh là Samuel Richard Davies. Những năm sau đó, bộ đôi này là một trong số các thành viên điều lệ của A.C. Milan có tên ban đầu là Milan Foot-Ball and Cricket Club. Chủ tịch đầu tiên được bầu là Alfred Edwards; trong khi Kilpin, được cho là người giàu kinh nghiệm nhất, sẽ phục vụ như là cầu thủ kiêm huấn luyện viên. Tuy nhiên, ông quyết định để cho người đồng đội lâu năm của mình là David Allison làm đội trưởng đội bóng trong mùa giải đầu tiên.[3]

Câu lạc bộ mới được thành lập đã ngay lập tức gặt hái thành công khi giành được danh hiệu vô địch quốc gia vào năm 1901, là mùa giải thứ hai tham gia. Kilpin chơi cho câu lạc bộ 9 mùa giải, tổng cộng 23 trận và ghi được 7 bàn thắng, và trên cương vị huấn luyện viên của Rossoneri, ông dắt dắt giúp đội bóng dành thêm 2 danh hiệu nữa trong năm 1906 và 1907.[2]